“내년 말엔 통제 불능” 전 구글 딥마인드 연구원, AI에 경고

인공지능 업계에서 개발 속도를 둘러싼 우려의 목소리가 잇따르고 있다. 최근 구글 딥마인드를 떠난 인공지능 연구원 빌랄 추그타이도 인공지능이 인류에게 치명적인 위협이 될 가능성을 언급하며 경고를 내놨다.

추그타이는 지난 14일 엑스에 글을 올려 구글에서 인공지능 기술이 개발되는 과정을 직접 지켜봤다며 현재 진행되는 기술 개발의 방향에 대해 매우 우려하고 있다고 밝혔다.

특히 그는 자신이 인공일반지능(AGI)의 안전성과 정렬 연구를 담당했다고 설명했다. 정렬 연구는 인공지능이 인간에게 위협이 될 수 있는 행동을 하지 않도록 모델의 목표와 행동을 인간의 의도에 맞추는 분야다.

추그타이는 인공지능이 인간을 죽일 수 있는 잠재력을 갖고 있다는 점을 진지하게 우려하고 있다고 주장했다. 이어 인공지능 개발 과정에서 예상할 수 있는 가장 공격적인 시나리오 가운데 상당수가 현실화되는 방향으로 가고 있다며, 내년 말이면 상황이 통제하기 어려운 수준에 이를 수도 있다고 내다봤다.

인공지능 업계에서는 앞서 비슷한 경고가 나오기도 했다. 이달 초 앤트로픽의 인공지능 개발자 제이컵 콕슨은 회사를 떠나면서 앤트로픽과 오픈AI가 초지능 인공지능 개발을 향해 지나치게 빠르게 나아가고 있다고 비판했다. 그는 양측이 사실상 목숨을 걸고 도박하고 있다는 취지의 주장을 내놓았다.

이후 논쟁은 업계 전반으로 확산됐다. 앤트로픽의 다리오 아모데이 최고경영자는 인공지능 개발 속도를 조절할 필요가 있다는 입장을 밝혔고, 오픈AI의 샘 올트먼과 스페이스엑스 인공지능 부문의 일론 머스크도 이에 대한 지지 의사를 나타냈다.

인공지능 기술의 발전 속도를 어디까지 허용할 것인지를 둘러싼 논의가 업계뿐 아니라 정치권으로까지 번지면서, 안전성과 기술 발전 사이의 균형을 둘러싼 논쟁도 한층 뜨거워지는 분위기다.

이반지 기자
bnt뉴스 라이프팀 기사제보 life@bntnews.co.kr